即時快訊
數產署表揚13家友善電商企業推動安心網購 Perky榮獲MUSE國際設計雙銀獎,女性營養品牌累積六項國內外肯定 金門酒廠「一穀作契」100%本土契作好品質 獲得農業部農糧署國產農糧原料酒推薦 「公益同行・原社共好」 29家績優合作社齊聚華山 公彩成果展現就業與福利新動能 孕育兆美元輝達的傳奇美式餐廳 創辦紀念座位牌保留至今 美國屋頂太陽能發電量近十年暴增近五倍 全球運動AI市場名單出爐 日本企業掛零歐美科技巨頭強勢壟斷 創投看好AI降低門檻 一人微型創業成美國就業新趨勢 年末聚會前的輪廓焦慮?醫師 : 「看不出做過」成自然美感新趨勢 印度航太新創搶攻火箭引擎商機 獲利基訂單拚太空產業分工
圖/本報AI製圖(示意圖)
科技生活

·7 個月前·康語柔
#假消息#人工智慧#大型語言模型#學術誠信#資訊辨識
圖/本報AI製圖(示意圖)
圖/本報AI製圖(示意圖)
商傳媒|康語柔/綜合外電報導
摘要

為測試AI對假消息的判斷力,瑞典研究員 Almira Osmanovic Thunström 虛構了一種疾病並發表論文,沒想到AI模型竟將該虛構疾病列為可能診斷,甚至有學術論文引用這份假研究,引發外界對資訊真偽辨識能力和學術誠信的討論。

為測試大型語言模型(LLM)處理資訊真偽的能力,瑞典哥德堡大學(University of Gothenburg)醫學研究員 Almira Osmanovic Thunström 進行一項實驗,虛構出一種名為「Bixonimania」的疾病,其症狀包含眼睛痠痛、搔癢以及眼瞼變色。這項帶有明顯虛假線索的「研究論文」於2024年初被上傳至預印本伺服器,不料數週後,不僅大型語言模型開始將其列為診斷建議,甚至有同儕審查(peer-reviewed)的學術論文引用了這份假研究。

Thunström 研究團隊在虛構的論文中埋下多處破綻,例如設定一位名為「Lazljiv Izgubljenovic」(在斯洛維尼亞語中意為「說謊的輸家」)的虛構主要作者,疾病名稱「Bixonimania」中的「mania」一詞通常用於精神疾病,且論文內明確寫道「整篇論文都是虛構的」。此外,研究中還感謝了來自「星際艦隊學院(Starfleet Academy)」和「企業號(USS Enterprise)」上的虛構同事,以及「教授配角鮑伯基金會(Professor Sideshow Bob Foundation)」等明顯的玩笑內容。

然而,這些警示訊號並未能阻止假消息的傳播。預印本論文發布數週內,微軟 Copilot(Microsoft Copilot)和 Google Gemini 等人工智慧模型便開始將 Bixonimania 列為用戶查詢眼部刺激時的可能診斷。更令人憂慮的是,隨後一份經同儕審查的學術論文,竟引用了這項虛構研究,並將 Bixonimania 描述為「一種與藍光照射相關的新興眼眶周圍色素沉著(periorbital melanosis)」。

事後,引用該虛構研究的論文已被撤回。Thunström 最終也決定撤回她的虛構論文,並將其設為私人狀態,以防繼續被大型語言模型抓取和傳播。她表示,此實驗旨在證明任何資訊系統都可能被滲透,並提醒研究人員不應盲目引用人工智慧生成的參考資料,而應仔細閱讀其引用的內容。Thunström 更坦言,她自己也曾被人工智慧生成的研究摘要所蒙蔽。

這項實驗凸顯了在數位時代中,資訊辨識的重要性以及大型語言模型在處理事實真偽上的潛在漏洞。有真實研究指出,超過75%在網路上分享文章的人,實際上並未完整閱讀內容,這也加劇了假消息傳播的風險。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源